AUSO: Action-Level Unified Skill Optimization from Internalization to Utilization
AUSO：从技能内部化到利用的动作级统一技能优化
🧭 Agent RL · 技能内部化与利用 ★ 深度解读
University of Science and Technology of China · University of New South Wales · Independent Researcher · University of Chinese Academy of Sciences · Xi'an Jiaotong-Liverpool University
用 JSD 度量技能对策略动作分布的影响，以动作级信号重加权 GRPO，将技能从外部监督渐进转为按动作收益利用，提升 Agent 泛化
📌 工作参考价值（4 点）
- 用动作级 skill sensitivity 替代轨迹级 skill routing：在电商导购/搜索 Agent 中，检索到的商品知识、query 改写策略或用户记忆通常整条 trajectory 统一使用。可以仿照 AUSO，在同一个 visited state 分别计算“有技能/无技能”的策略分布，用 JSD 得到动作级 sensitivity，再乘 GRPO advantage；只加强有利动作、抑制被技能干扰的动作，且不改变 advantage 符号。
- 对 reward 稀疏、全失败组失效问题，可仅对 success rate=0 的任务组加入 skill-conditioned teacher JSD loss，并用 ramp-up + smooth-decay 退火。这比一直加蒸馏更稳，能让 Agent 从专家技能中恢复而不过度依赖外部监督。
- 在二元成功/失败的 rollout group 中，引入 p(1-p) uncertainty gate 控制动作级 credit assignment；全成功或全失败时门控趋近 0，避免无信息差异的动作被错误加权。该轻量 trick 可直接嵌入现有 GRPO 流程。
- 课程式阶段划分 2:5:3（内部化/探索/利用）可迁移到业务 Agent post-training：先蒸馏已有专家或策略知识，再做自主 RL，最后自适应利用外部工具/skill，尤其对 OOD 流量收益明显。